最近Rubyを嗜む程度で始めたのですが、irbでいろいろやってたら不思議な現象が起こった。10進の浮動小数点の不思議な話。たぶん、2進数、変数、最適化とかのキーワードで調べてもうちょい突き進んでいけば分かるかもしれないけ … 続きを読む 10進の浮動小数点の不思議